Bà sinh tại Manhattan, là con của Simon và Clara (nhũ danh Zipper) Sussman. Bà học trường Walton High School.

Nhờ biết đánh máy chữ, bà xin được việc làm thư ký bán thời gian cho tiến sĩ Rudolf Schoenheimer, nhà hóa sinh hàng đầu ở "College of Physicians and Surgeons" của Đại học Columbia. Nhưng không tin rằng một trường đại học tốt sẽ thâu nhận và trợ cấp tài chính để học tập cho một phụ nữ, nên bà đã xin một việc làm thư ký cho Michael Heidelberger – một nhà hóa sinh khác ở đại học Columbia – người đã thuê bà với điều kiện là bà phải học môn tốc ký.

Bà tốt nghiệp trường Hunter College trong tháng 1 năm 1941. Khoảng giữa tháng 2 cùng năm, bà nhận được lời mời làm trợ giáo môn Vật lý học ở Đại học Illinois tại Urbana-Champaign với lý do chủ yếu là cuộc Chiến tranh thế giới thứ hai đã nổ ra và nhiều người đàn ông phải ra trận, nên trường đại học quyết định trao học bổng cho phụ nữ thay vì đóng cửa trường. Mùa hè năm đó bà theo học 2 khóa Vật lý học miễn phí dưới sự bảo trợ của chính phủ tại Đại học New York. Ở Đại học Illinois, bà là người phụ nữ duy nhất trong số 400 thành viên của phân khoa, và là phụ nữ đầu tiên kể từ năm 1917. Yalow đậu bằng tiến sĩ năm 1945.[4] Sau đó, bà gia nhập "Bronx Veterans Administration Hospital" để giúp lập ra ban đồng vị phóng xạ.